B.A., M.Sc., MBA Jesse de Jesus de Pinho Pinhal

Zur Person

Jesse de Jesus de Pinho Pinhal ist Doktorandin an der Professur für Ethik der Künstlichen Intelligenz und Juniormitglied des Munich Centre for Machine Learning, wo Jesse als Diversity-Beauftragte tätig ist. Die Arbeit erfolgt unter der Betreuung von Dr. Benjamin Lange und Prof. Dr. Sven Nyholm.

Die Promotion liegt an der Schnittstelle von Ethik und (sozialer) Erkenntnistheorie und untersucht Dialogagenten der Künstlichen Intelligenz (KI). Zentrale Fragen der Forschung sind: Wie sollte ein idealer KI-Dialogagent aussehen? und Wie verändern KI-Dialogagenten unser Verständnis zentraler ethischer und erkenntnistheoretischer Konzepte wie Vertrauen, Anerkennung, Zeugenschaft, Überzeugungskraft und Offenheit gegenüber Andersartigkeit?

Frühere Forschungen von Jesse befassten sich mit Diskrepanzen zwischen menschlichen Urteilen und algorithmischen Vorhersagen sowie mit Fragen von Fairness, Gleichheit und Gerechtigkeit in algorithmischen Entscheidungsprozessen. Sie untersuchten auch die normativen Implikationen von Konzepten wie „Bias“ und „Genauigkeit“. Diese Themen umfassen algorithmische Verzerrungen, Fairness- und Prüfpraktiken sowie die Prinzipien von Verantwortlichkeit, Erklärbarkeit und Transparenz im Kontext intransparenter („Black-Box“) maschineller Lernsysteme.

Jesse war Gaststudierende am Centre for the Future of Intelligence der University of Cambridge, wo sie zur Skalierbarkeit von Computeranwendungen forschten. In der Freizeit genießt Jesse Bouldern, Wandern und Lesen.

Jesse verfügt über einen MSc in Ingenieurwissenschaften von einer französischen Grande École, einen MBA in International Management von der ESCP Business School und einen BA in Philosophie. Der berufliche Hintergrund umfasst verschiedene Branchen, darunter Technologie, Investitionen und Versicherungen.

Forschungsinteressen

Die Ethik der Künstlichen Intelligenz (KI); die Ethik von Dialog und Kommunikation; künstliche moralische und epistemologische Agenten; kollektive Ethik; soziale Erkenntnistheorie; Fairness, Verantwortlichkeit und Transparenz in der KI; und die Theorie der Demokratie.

Ausgewählte Publikationen

• Dennler, N., Ovalle, A., Singh, A., Soldaini, L., Subramonian, A., Tu, H., et al. (2023), Bound by the Bounty: Collaboratively Shaping Evaluation Processes for Queer AI Harms, in: Proceedings of the 2023 AAAI/ACM Conference on AI, Ethics, and Society (pp. 375–386). New York, NY, USA: Association for Computing Machinery.
• Schmitt, V., Solopova, V., Woloszyn, V., & de Jesus de Pinho Pinhal, J. (2021), Implications of the New Regulation Proposed by the European Commission on Automatic Content Moderation, in: 2021 ISCA Symposium on Security and Privacy in Speech Communication (pp. 47–51). Presented at the 2021 ISCA Symposium on Security and Privacy in Speech Communication, ISCA.